即使在给定的物种中，单个大脑在解剖结构和功能组织中也有所不同。当试图从受试者组收集的神经影像数据中得出可概括的结论时，个体间的可变性是一个主要障碍。当前的共同注册程序依赖于有限的数据，从而导致非常粗糙的主体间比对。在这项工作中，我们提出了一种基于最佳运输的主体间比对的新方法，称为融合不平衡的Gromov Wasserstein（FUGW）。该方法根据其功能特征的相似性来对齐皮质表面，以响应各种刺激设置，同时惩罚了单个地形组织的大变形。我们证明了FUGW非常适合全脑车地标的对齐。不平衡的功能可以处理以下事实：功能区域的大小各不相同。我们的结果表明，FUGW的对准显着增加了独立功能数据的活动间相关性，并导致在组级别上更精确的映射。
translated by 谷歌翻译
语言模型既展示了定量的改进，又展示了新的定性功能，随着规模的增加。尽管它们具有潜在的变革性影响，但这些新能力的特征却很差。为了为未来的研究提供信息，为破坏性的新模型能力做准备，并改善社会有害的效果，至关重要的是，我们必须了解目前和近乎未来的能力和语言模型的局限性。为了应对这一挑战，我们介绍了超越模仿游戏基准（Big Bench）。 Big Bench目前由204个任务组成，由132家机构的442位作者贡献。任务主题是多样的，从语言学，儿童发展，数学，常识性推理，生物学，物理学，社会偏见，软件开发等等。 Big-Bench专注于被认为超出当前语言模型的功能的任务。我们评估了OpenAI的GPT型号，Google内部密集变压器体系结构和大型基础上的开关稀疏变压器的行为，跨越了数百万到数十亿个参数。此外，一个人类专家评估者团队执行了所有任务，以提供强大的基准。研究结果包括：模型性能和校准都随规模改善，但绝对的术语（以及与评估者的性能相比）；在模型类中的性能非常相似，尽管带有稀疏性。逐渐和预测的任务通常涉及大量知识或记忆成分，而在临界规模上表现出“突破性”行为的任务通常涉及多个步骤或组成部分或脆性指标；社交偏见通常会随着含糊不清的环境而随着规模而增加，但这可以通过提示来改善。
translated by 谷歌翻译